AIGC野蛮生长，知道创宇发布SecGPT内容治理应万变
为帮助中小企业更好地了解、应对AIGC时代的挑战与机遇，5月27日，创业黑马在北京举办了以“预见新世界，构建新格局”为主题的“2023•黑马AIGC峰会”。
知道创宇副总裁李伟辰在会上进行了题为《知道创宇SecGPT，AIGC时代全流程业务风险治理》的分享，为中小企业做好AIGC内容治理提供了创宇思路和解决方案。
SecGPT：
一种网络安全“大模型”
SecGPT是知道创宇创始人、CEO赵伟在2015年世界互联网大会上提出的超前性概念，是将整个网络空间的所有数据放到一起进行跨域跨层的数据关联，然后寻找风险以及应对方式的过程。
按照赵伟的观察，网安行业大体上经历了四个时代，即手动分析时代、自动分析时代、信息时代、智能时代，每一次过渡到下一个时代，都要经历一次技术革命。
在当下的智能时代，AI技术逐渐成为网络攻防双方所关注的核心技术之一，网安行业的需求也逐渐从“合规”向“实战”升级，随着数据资源的指数级增长及大数据能力的崛起，以SecGPT概念打造安全能力生产线成为可能。
实际上，这一概念也是知道创宇构建整个技术体系以及产品矩阵的理论基础，立足网络攻防战场，用创新打造实战化防御体系。
AIGC野蛮生长，
危机十面埋伏
2023 Q1，人工智能企业新增11.4万家
AIGC行业从去年下半年发展到现在，不仅走出了低谷，许许多多的人工智能企业更像是踏浪而来。
截至2022年底，我国人工智能相关企业注册量为42.27万家；到了2023年第一季度，我国人工智能相关企业注册量新增11.41万家，较2022年同比增长25%。仅部分搜索可见，在Github上人工智能相关开源项目已经多达6.8万个以上。
除了企业，也有一些群体在野蛮生长，弄浊了浪潮，他们利用AIGC违法满足私利的情况层出不穷。
AI诈骗在全国爆发！眼见不一定为实！
AIGC生成内容可能导致的违法乱纪情况，包括但不限于：误导性和虚假信息，不当或违法内容，深度伪造的内容，恶意利用的安全事件，伦理道德，歧视性内容，隐私泄露。这些内容的传播将直接作用于互联网平台，使其被通报、罚款、整改，严重的甚至被下架。
李伟辰在分享中指出：“在AIGC广泛应用的时代，互联网平台势必将面临巨大的风险压力。”
AIGC野蛮生长，危机十面埋伏
监管视角下的AIGC合规要求，
内容、算法、数据是三大重点方向
我国的监管部门已敏锐察觉到AIGC可能产生的风险，并准备开展监管工作，以使其健康发展。从监管视角出发，AIGC的整个业务形态需要落实三类要求，分别是内容、算法和数据。
监管视角下内容之合规要求
今年发布的《生成式人工智能服务管理办法（征求意见稿）》提到：“利用生成式人工智能的产品提供聊天和文本、图像、声音生成等服务的组织和个人，需要承担该产品生成内容生产者的责任；提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行进行标识。”
《互联网信息内容生态治理规定》里也提到：“网络信息内容服务平台应当履行信息内容管理主体责任，加强本平台网络信息内容生态治理。”
监管视角下算法之合规要求
《互联网信息服务深度合成管理规定》里提出：“深度合成服务提供者应当落实信息安全主体责任。”《互联网信息服务算法推荐管理规定》中提到的“算法推荐服务提供者应当落实算法安全主体责任”。
算法合规必须考虑算法备案要求、算法评估要求、算法相对透明要求、用户权益建立健全机制等要求。
监管视角下数据之合规要求
尤其是在AIGC特定的大模型下，更会遇到一些特殊的数据合规要求。在《生成式人工智能服务管理办法（征求意见稿）》里还提到：“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”。这些监管的明确要求，都给互联网带来了新的挑战。
IPO视角下的合规要求
除了监管要求，当企业成长到一定程度，进入IPO节点时，相关的部门还会对我们提出更高的要求。比如要求：
公司在保证人工智能技术可控、符合伦理规范方面的措施和规划；
需要说明公司经营是否符合《个人信息保护法》《数据安全法》《网络安全法》等法律的规定；
对外提供的产品是否涉及数据的采集运用，如是，说明数据的来源及其合法合规性；
保证数据采集、清洗、管理、运用等各方面的合规措施。
李伟辰表示：“相信随着相关法律的逐渐出台，在IPO阶段，企业将面临的合规性的质询会越来越多。”
知道创宇认知域网络空间AI
安全融合应用
李伟辰介绍到：“上述说了这么多监管趋严的例子，企业也正严阵以待，那知道创宇能在期间发挥什么作用呢？”
“知道创宇SecGPT架构，由大数据AI安全基座、大数据AI安全模型算法中台、大数据AI安全能力引擎、大数据AI安全业务应用构建。这是知道创宇从2007年创立以来就在践行的实际架构，在这一套架构上，知道创宇逐渐确立了以创新能力驱动“实战防御”的发展方向，在2018-2020三年间，发布了约二十款产品。通过产品间的连接、联动，构建起“AI+安全大数据”的底层能力，为客户提供云防御、云监测、云测绘、云智脑产品与服务。同时，知道创宇也在做全球范围的攻击威胁态势感知。”
在业务安全方面，知道创宇CDAI（Cognitive Domain Artificial Intelligence）认知域AI引擎系统是融合多年业务审核实践经验，联合众多内容安全审核领域专家智囊，使用数十种前沿数据科学算法作为能力核心，研制的一套创新AI系统解决架构。
该系统目前已完全接入知道创宇ScanA内容安全监测、ScanA智能审核平台、资质审核平台、数据精标平台等诸多产品，根据不同客户的不同需求，提供特定的解决方案。
针对互联网应用平台，
提供4套内容安全风控方案
AIGC智能审核定制
使用 Instruction GPT 类模型强大的指令执行特性，极速指定审核模版，分钟级上线定制化的机审能力。
内容合规鉴别服务
积极参与AIGC内容管理相关法令法规制定，契合监管需求，提供AIGC模型的内容合规测试服务以及AIGC违规内容的识别服务。
AIGC训练标注服务
充分发挥人审专家优势，为各大厂商提供专业的、高质量的RLHF（Reinforcement Learning Human Feedback）服务，助力客户厂商的GPT类模型训练。
AIGC合规基线评测
提供内容安全领域专业的测试人员对AIGC基线开展测试和评估，最终评测结果将为人工智能系统的开发和应用提供参考和指导。
针对大模型、大模型应用和相关企业，
提供三位一体的合规解决方案
在训练阶段、评估阶段、推理应用阶段均提供特色服务。训练阶段可以提供无监督预训练、RLHF；评估阶段可以帮助客户建立问题库、问题答案请求模型；推理阶段可以进行用户请求分析以及内容传播分析等。
知道创宇提供「三位一体」的大模型安全&合规解决方案
针对不同的业务场景，
提供ScanA全栈式内容风控体系解决方案
知道创宇ScanA全栈式内容风控体系包括机审和人审。客户可以根据需要的业务场景选择机审引擎或者机审引擎+人工复核，审核的内容包括图文音视文档等，覆盖AI对话、AI绘画、AI办公、AI搜索、AI视频、AI音频等AIGC应用场景。
平台可以通过API的方式将内容提交给知道创宇，审核结束后会把结果返回。如果内容是正常的，平台可正常展示出去；但如果是违规的，就会打上相应的标签返回给平台方。
知道创宇ScanA全栈式内容风控体系
目前，知道创宇ScanA全栈式内容风控这套体系已经应用在了很多一线头部厂商上，得到大厂的验证，并且是供应商里评价十分靠前的选择。
演讲的最后，李伟辰还向与会者介绍和展示了知道创宇发布的《七大语言模型内容基线评测》（点击了解具体评测成果）。
李伟辰表示：“知道创宇作为网信代表企业，将紧跟国家政策要求，向AIGC领域全方位渗透。通过人机深度交互，机器智能与人类智慧深度结合，实现以数据为中心、以分析处理数据为中枢的自主感知、自主分析、自主决策、自主打击能力，可为业内提供非常靠谱的、且能够落地的合规安全解决方案。”
PS：查看今日二条推送，阅读《知道创宇SecGPT，AIGC时代全流程业务风险治理》分享全文～